Banda Aceh, nằm ở cực bắc Sumatra, từ lâu đã trở thành một trung tâm chiến lược, giao thông và thương mại ở phía đông Ấn Độ Dương. Địa danh này được đề cập tới lần đầu tiên trong các tài liệu phương Tây khi Marco Polo và đoàn thám hiểm của ông tới thành phố vào năm 1292. Họ gọi địa danh này là 'Lambri', lấy tên từ Vương quốc Lamuri mà trước đây đã tồn tại ở đó và được ghi nhận là cảng trung chuyển đầu tiên những lữ khách đi tàu từ bán đảo Ả Rập và Ấn Độ tới Indonesia.[8] Ibn Battuta cũng được ghi nhận đã đến thăm thành phố vào giữa thế kỷ 14 khi đó còn thuộc quyền cai quản của thương quốc Samudera Pasai, the then dominant entity in northern Sumatra.[9] Tuy nhiên nhà Pasai bắt đầu sụp đổ do áp lực từ tình trạng suy thoái kinh tế và áp lực từ Đế quốc Bồ Đào Nha, những người kiểm soát phần lớn diện tích của khu vực này sau khi chiếm được Malacca vào đầu thế kỷ 15. Sultan Ali Mughayat Syah, vua của Hồi quốc Aceh, tích cực mở rộng lãnh thổ trong khu vực này vào thập niên 1520. Vương quốc mới ra đời của ông được xây dựng trên phần còn lại của Pasai và các vương quốc khác đã bị diệt vong trong khu vực, trong khi đó Banda Aceh trở thành thủ đô và được đặt tên mới là Kutaraja hay 'Thành phố của nhà vua'.

Vào cuối thế kỷ 18, lãnh thổ Aceh ở bán đảo Malay, cụ thể là Kedah và Penang, bị người Anh chiếm giữ. Năm 1871, người Hà Lan bắt đầu đe dọa Aceh, và vào ngày 26 tháng 3 năm 1873, người Hà Lan chính thức tuyên chiến với Aceh. Người Hà Lan bắn phá thủ đô và tìm cách chiếm giữ cung điện của Sultan trong thành phố để buộc người Aceh đầu hàng. Sự hỗ trợ đáng kể từ người Anh giúp hiện đại hóa và củng cố thành phố, và mặc dù các khu vực ven biển bị mất thì người Hà Lan đã đánh giá quá thấp hệ thống phòng thủ của thành phố. Chỉ huy của quân viễn chinh Hà Lan, tướng Johan Köhler hy sinh trong một cuộc giao tranh xung quanh thành phố, dẫn đến sự thất bại của cuộc viễn chinh thứ nhất. Cuộc viễn chinh thứ hai được người Hà Lan chuẩn bị trong vòng nhiều tháng và đã thành công hơn cuộc tấn công trước đó. Người Hà Lan di chuyển vào trong khu vực nội đô vào tháng 1 năm 1874 và tin rằng người Aceh đã đầu hàng; tuy nhiên, cuộc xung đột chuyển đến vùng nông thôn còn người Aceh tiếp tục chống lại sự cai trị của Hà Lan.

Sau khi được nhập vào Chính phủ Cộng hòa Indonesia ngày 28 tháng 12 năm 1962, tên của thành phố được Bộ Hành chính công và Tự trị Khu vực đổi lại thành Banda Aceh vào ngày 9 tháng 5 năm 1963. Vào ngày 26 tháng 12 năm 2004, thành phố trải qua trận sóng thần gây ra bởi một trận động đất 9,2 độ richter tại Ấn Độ Dương. Thảm họa đã làm 167.000 người thiệt mạng và phá hủy hơn 60% các công trình của thành phố. Dựa trên dữ liệu thống kê do Chính quyền thành phố Banda Aceh công bố, Banda Aceh có dân số 248.727 người vào tháng 5 năm 2012.[cần dẫn nguồn]